导读：2022年7月30日下午，由CSDN、OpenMPC社区联合主办，网络法前沿、网络法实务圈支持的“技术+法律”隐私计算如何助力数据合规公开课成功举办。今天为大家详细介绍北京科技创新中心研究基地副主任赵精武分享的《破除隐私计算的迷思：治理科技的安全风险与规制逻辑》。
赵精武
北京科技创新中心研究基地副主任
《破除隐私计算的迷思：治理科技的安全风险与规制逻辑》
在经历了“数据资源型—数据驱动型—数据赋能型”三个数据经济发展形态之后，现代社会对 于数据的依赖性早已不是最初的“数据增值加工”，而是深化至“数据如何变革产业形态”。这种“产业数字化”的市场趋势促使立法理念发生变化：从单一的数据安全转变为在数据安全前提下充分利用数据。在治理科技研发过程中暗含着一种容易被忽视的商业逻辑：“×× 科技”是为了达成某种商业目标而创设的合规型技术方案，即治理科技的最终目的并不是实现监管机构的监管要求，而是给数据商业化处理活动提供充分可信的“安全背书”。并且，在信息技术发展进程中，从未出现过“绝对安全” 的技术方案。这些主客观因素决定了治理科技同样可能产生不可预见的安全风险。不难发现，在治理科技治理社会风险的进程中，也在产生新的反治理风险，而为了消除这种反治 理风险，新的治理科技又被纳入新一轮的治理活动中。为了打破“数据孤岛”和提升数据利用效率， 隐私计算技术成为治理科技的新生代代表。该项技术方案的基本逻辑是在挖掘、分析、整合数据的过 程中维持原始数据的保密性和本地化等安全指标，达成“数据安全”和“数据利用”之间的利益平衡。但是，这项治理科技似乎同样没有摆脱“治理—反治理—再治理”的逻辑怪圈，非授权主体依然可以 通过“多次尝试输入数据生成特定关系的结果”倒推原始数据。
联邦学习、安全多方计算和可信计算等技术方案的隐私计算技术成为新一代治理科技，其目的是在满足现有数据安 全保护监管要求的前提下实现更大范围的数据商业化处理，通过“数据可用不可见”的方式化解数据 安全与数据利用之间越发激化的法益冲突。2.1 风险预防的机制失效
总体而言，我国数据安全风险预防机制大体可分为三个层次。
纯粹服务于商业目的的技术应用所引发的安全风险均可通过风险预防机制予以调整，但由于治理科技本身以遵守数据安全技术标准和监管要求为前提，暗含“已 经尽可能预防风险”的技术逻辑，故而风险预防机制的预防功能无法直接适用于治理科技引发的反治理风险。治理科技的“治理”属性意味着该类技术的研发逻辑以契合数据安全技术标准为前提，数据脱敏这一传统规制范式显然已经无法实现最初的规范目的，因为“脱敏”之要求已经成为治理科技研发的核心技术 要求之一。目的正当性原则发挥约束效用的前提是数据处理活动单纯以营利为目标，如果不对处理目的进行内部自我约束和外部技术审查，则极易产生过度收集和滥用数据的风险事件。法律责任在所有具有规范性意义的制度安排中居于核心地位，既是违反特定义务必须承担的法 律后果，也是救济相关权利损害的必要措施，更是保护正当权益的直接手段。以服务链条为基础，主导方责任、参与方责任、技术方责任和监管责任共同构成技术风险责任归属体系的主构架。为了方便事后问责和确定数据处理者的责任承担范围，国内外立法者大多选择以行政备案制 度、数据处理记录留存制度等方式方便追溯技术安全风险的实际原因和责任归属主体，避免数据处 理者借由技术中立或已经采取相应的安全技术手段规避责任的承担。
以“告知—同意”为“第一闸口”的信息处理规则，是典型静态节点管控思维的体现，在降效失能 中颓势明显，须以动态的全局治理模式对其进行改良。因适用场景呈现高度动态化的特征，治理科技不同于可一眼看穿的普通数据处理活动，根植于其间的“告知—同意”框架应当同样处于动态变化之 中，才能应对法律关系的复杂化。数据处理者只有做到与时俱进的“告知”，数据主体才可能作出真正 符合其意思表示的“同意”，否则无异于“刻舟求剑”。再则，以信息自决为核心的主体权利制度也不能完全保证数据主体所享有的积极利用权能，需辅之以可撤回之同意为其行权模式。既有制度延伸适用存在的另一个问题，是对旧制度治理新技术的效果估计过于乐观。以数据脱 敏机制为例，政策制定者看到的是一个规定了“去标识化”“匿名化”就可以让个人信息脱敏的世界， 而这种理想愿景同数据处理的现实情况南辕北辙。传播学领域的马赛克理论（Mosaic Theory）指出， 若干非重大、无关联信息或信息片段的结合，亦能还原出有重大价值的信息。隐私计算的各参与方都是掌握相当数量个人数据的专业处理者，“对外行人或许毫无意义的数据或偶得信息，对内行人却意义非凡”。总之，面对技术的突 飞猛进，政策制定者必须实事求是、摒弃一切想当然的幻想，只有在客观、中立认识的基础上制定出符 合技术发展规律的治理规则，才经得起时间的考验。治理科技的歧视是多因素、多种作用的和合，即便知道责任应当在哪些 数据处理者之间分配，也很难准确地定性每方应负责任的大小。因此，应对反治理风险不可能如同应 对算法风险或互联网风险那般采取加强责任穿透、提升平台责任、监控关键环节等方式，连带责任和分配责任的制度安排均无法实现实质正义。研究表明，特定算法应用的有限可解释性尚且只能“削足适履”地实现，治理科技 环环相扣的全过程“获解释权”将面临更大的艰难险阻。每个全局模型的当下意涵，只能透过各轮训 练间的意涵关联来确定，而各轮训练间的意涵关联又须考量最新一轮的数据构成及其相对于过去数 据整体的动态意涵才能确定。若想完整掌握全局模型的蜕变过程，必须准确把控历次模型参数更新 的根本机理，适时回应不断更新的解释需求，并关注已然作成之解释对未来全局模型之改良的“反作 用”。可见，通过“获解释权”的正义实现，也要求观察者具备整体诠释演绎的能力和水平。
治理科技的参与方分属不同机构、不同行业，彼此之间包含着错综复杂的利益交织，单凭行政裁 量无法客观地考虑各方价值平衡，况且，公共管理部门实际上是治理科技的最大受益者，监管者和被 监管者的身份混同问题突出。另外，治理科技应用场景不断拓展，隐私计算技术、边缘计算技术同区 块链等技术的结合紧密，行政监管部门已然面临日益增长的监管需求和监管资源不平衡、不充分 之间的矛盾。唯有突破行政监管一家独大的规制局面，建立从公权力监管到行业监督、从行政命令到 法律规范的立体化多元治理体系，才能动态地解决治理科技伴生而来的技术安全风险和挑战。规制理论的转向有助于孕育出强有力的规制手段，但稳定连续、浑然一体的治理科技的规制体系 尚未成型，只有当大体制中具体而琐碎的小体制不断确立，才能最终形成适应治理科技的法治生态。因而，应对治理科技风险的当务之急，是通过一种联结化的努力，将适格的小体制纳入大体制的轨道， 并注重小体制间的系统性和融贯性。以上四个层面的理论转向共同揭示了如下的规制原理 ：
治理科技本身属于“代码即法律”理念的实践方式之一，在技术代码层面融入法律的内容，让技 术本身间接具备“法律效果”。但这并不意味着治理科技的应用等同于法定义务的履行，因为法律不 仅关注义务是否履行，同样关注法益是否存在被侵害的风险。治理科技所产生的反治理风险恰恰说 明“代码即法律”的功能局限性，而法律、技术、市场和社群任何一种规制手段只会产生“旧风险治理 不彻底”和“新风险的不可预测”并存的尴尬局面。
4.1 协同治理的理念重述
伴随着规制思维的整体转向，我们提倡对治理科技进行协同式治理，即以技术构架为纽带、以数 据流转为脉络，国家法律主导，社群规范、市场竞争和技术构架各司其职的多维共治范式。任何治理 科技，必须历经社群测评、行业许可、政府认证，方能大规模部署，由此形成“测评—许可—认证—推 广”环环相扣的全过程治理体制。与法律规则功能相辅相成的技术性标准，经由政府部门、行业组织、 科研机构、企业和数据主体间的协商产生，在适用中妥善平衡各个利益主体的不同诉求、兼顾公私差 异，从而与“去中心化”的规制大局观合若符契。政府、市场、机构、个人之间的联动有助于形成技术 赋权与权利义务平衡的法律规则，实现经济效益和公平正义的帕累托最优，同时也遏制行政措施对法 律手段的倾轧和排挤。政府部门的主要职责在于跟踪、调研治理科技的应用状况，仅在必要时督促各 方力量依法介入，为变化的风险寻求灵活的解决方案。法律和技术的联结：约束开发行为
联结法律和技术的开发行为约束以正当目的原则为核心。居心不良的参与方的利己恶行常因技 术黑箱疑罪从无，而传统的法律责任和信息自决权利在受害人无法举证和无法察觉的情况下失去了 用武之地。在技术开发阶段导入正当目的原则，有助于避免本应是“我为人人”的数据治理之举，被 用来掩盖未取得“多数人同意”的隐私掠夺行径。另外，该原则还意味着纠纷产生时的举证责任倒置， 即当数据主体对数据处理行为抱有合理怀疑时，应由作为联邦学习参与方的数据处理者主动打消对方 的疑虑。在统一数据标准和技术规范之上，技术和社群可以经由安全流程相互融合。其一，通过社群规范， 构建多租户分权分域管理制度，精细化把控每一参与方的用户权限，由上至下形成一条完整的资源统 筹分配回路。其二，统一身份认证管理，结合云平台指纹、人脸、声纹、扫码等多因素推行访问控制，建 立支持服务器集群认定和客户端与服务器之间的双通道认定机制，利用服务器证书等技术手段严控 应用层、传输层的数据传输，在治理科技应用边界内构建零信任数据控制机制。其三，引入集约式日 志审计监察，在数据交换标准统一的基础上，支持分布式实时计算组件对接数据中间流，全方位感知 数据安全态势，一方面监控异常浏览轨迹、账号违规共享、数据恶意投毒、高危指令录入、非正常模型 运算等行为；另一方面将过程数据储存至弹性搜索引擎的服务器中，配合随机森林算法对打标数据进 行安全感知分析和威胁预判处理。以社群声誉概念作为参与方信任度的市场化衡量指标，是联结社群和市场的有效渠道。多权重 的主观逻辑模型构架，配合区块链技术的不可篡改特性，分布式信誉管理不再是痴人说梦。例如，围 绕深度强化学习设计激励策略，在开源分布式特殊场景中推行资源“按劳分配”，以达到边缘节点的最 佳训练水平；利用区块链技术跟踪全局模型更新，对积极参与联邦学习的用户给予丰厚奖励，能实 现局部模型的更高稳定性。居于中心地位的是在“个人信息自决”观念下的知情权、获解释权、拒绝权、更正权、删除权等， 让数据主体能够至少知晓治理科技的目标愿景、运作逻辑与构建机理，从而“消除信息利用的‘丛林 法则’和‘公地悲剧’”。在此之上，是被遗忘权、人工干预权、脱离自动化决策权、免受算法支配权等赋权数据主体在面对治理科技要约时，同数据处理者就自身权益讨价还价的主动性权利，确保数据 主体的自主性和独立性。这一基本图式展示出了治理科技的协同治理体系，即以法律为核心、多个维度同频共振的体系化 规制模式。不同技术间因数据处理的目的不同、应用行业不同，需要分别设计不同的社群规范和权利 簇，但大体规制框架无论是在方法论层面还是在法益衡量层面均没有实质差别。考虑到技术的流 变、场景的差异及参与方禀赋的不同，针对治理科技的规制方案没有一成不变的“最优解”，必须基于 风险产生的不同机理，考虑治理成本、技术条件、舆论环境等外在约束，形成力所能及的差异化制度安 排。随着实践经验的积累，各维度上的不同要素还可以不断细分，彼此之间的联结关系也可以不断细 化，进一步条分缕析出各个子系统之间的内在关联，确保法律保护嵌入技术构架，技术构架影响社群 规范，社群规范规训市场竞争，市场竞争反过来又促进法律规则的进步。这或许是科技部“伦理先行、 敏捷治理、立足国情、开放合作”理念的真意所在，较之于欧美“通过设计保护隐私”的倡议向前迈 进了一大步。多重维度间“特殊的成双成对”并非法律人的凭空臆想，而是立足于我国现有数据安全法律 体系，结合治理科技发展走向形成的有根据的预判。系统性规制的连续性来自对复杂法益平衡的考 量。治理科技的部署，最终将拓展算法决策取代自然人决策的应用场景。为了避免算法决策可能存 在的恣意，应对治理科技所关涉的现实权益进行位阶排序。当高阶权益与低阶权益相冲突时，优先保 护高阶权益；尤其是当拟保护的权益同宪法中的基本价值秩序相吻合时，应当赋予相关权益高位阶和 优先性。在不同的场景中，治理科技的风险各有不同，各个维度之间的灵活调整，是依照场景差异实施弹 性治理的关键所在。例如，当治理科技用于疫情防控、警情预测、政务通办、智慧医疗、量刑辅助等部 署在公共部门、同公民基本权利密切相关的场景中时，应当为数据处理者规定严格的开发行为规范， 辅之以刚性的安全管理流程，并适度弱化数据主体的数据权利。当治理科技用于自动驾驶、招聘筛选、 智慧金融、联合统计、分级评审等部署在公共或私营部门、涉及公共产品的分配场景中时，应当重视声 誉管理机制，通过社群规范和市场竞争的互动，在保障数据安全前提下尽可能促进数据效能的合规有 序释放。当治理科技用于用户画像、语音识别、内容推送、偏好预测、信息过滤等部署在私营部门、提 供个性化服务的场景中时，数据主体自我防护的各项权利应当得到首要保障，除此之外，还应以社群 规范的形式内置禁止监管套利条款，以便为“精致利己行为”的事后追溯提供法律依据 。
历史的经验告诉我们，法律规则在适应技术变革时，经常面临工具理性和价值理性的“哈耶克悖 论”：如果过于偏重价值理性，改革的渐进主义思想将拖累治理实践的深化，甚至可能偏离原本的价值 取向，致使制度设计脱实向虚；如果过于偏重工具理性，又容易剑走偏锋，遁入福柯所称“知识和权力 结合”提升“治理术”的极端，常因“重术轻制”导致工具权力异化。这正是本文探讨治理科技规制所秉持的价值观：其一，从技术实然着 手寻求规则应然，兼顾技术发展价值负荷与社会环境的双向规约；其二，在不打破既有部门法划分的 格局下因时制宜寻求多元维度的联动可能；其三，进行一种和现实联系紧密的，在政治上有效的，能够 把前沿信息技术的部署同独立、分散数据主体的真实感受和意愿联系起来的讨论。